Ngày 9 tháng 3 năm 1945, tại Hội nghị Ban Thường vụ Trung ương mở rộng, ông được cử vào Ủy ban Quân sự Bắc Kỳ, trực tiếp lãnh đạo khởi nghĩa vũ trang ở khu III. Ngày 12 tháng 3 ông cùng đồng chí Nguyễn Trọng Tỉnh phát động khởi nghĩa giành chính quyền tại xã Xuân Biều, huyện Hiệp Hòa, tỉnh Bắc Giang

Sau Cách mạng tháng 8, ông là Xứ ủy viên Xứ ủy Bắc Kỳ, phụ trách miền duyên hải; năm 1946 là Thường vụ Xứ ủy.

Khi Toàn quốc kháng chiến, ông làm Bí thư Khu ủy Khu 3 kiêm Chủ tịch Ủy ban kháng chiến hành chính khu 3.

Đầu năm 1948, ông được cử làm Phó Bí thư Liên khu 3, cuối năm đó được cử giữ chức Chánh Văn phòng Trung ương Đảng.

Đến cuối năm 1949, ông trở về làm Phó Bí thư Liên khu ủy Liên khu 3.

Tại Đại hội đại biểu toàn quốc lần thứ II của Đảng năm 1951, ông được bầu vào Ban Chấp hành Trung ương Đảng, trực tiếp làm Bí thư Liên khu ủy, kiêm Chủ tịch Ủy ban kháng chiến hành chính Liên khu 3 và Chính ủy Bộ Tư lệnh Liên khu 3, năm 1953-1954 kiêm Bí thư Thành ủy Hà Nội.

Cuối năm 1954, ông lần thứ 2 được cử làm Chánh Văn phòng Trung ương Đảng.

Tháng 10 năm 1956, tại Hội nghị trung ương lần thứ 10 mở rộng, ông được bầu bổ sung vào Bộ Chính trị.

Tại Đại hội III và IV của Đảng, ông được bầu vào Ban Chấp hành Trung ương, Ủy viên Bộ Chính trị.

Năm 1980, ông được bầu làm Thường trực Ban Bí thư.

Tại Đại hội V của Đảng, ông được bầu vào Ban Chấp hành Trung ương.